Ето как новият изпълнителен директор на характера планира да се справи с страховете около използването на децата от Chatbots

Когато 5-годишната щерка на Karandeep Anand се прибере от учебно заведение, те изстрелват характера на платформата за чатбот на изкуствения разсъдък.

Опитът на Ананд, употребяващ продукта като родител, може да бъде потребен в този момент, когато той е воин на New.ai, New Executive, смяна, която компанията разгласи предишния месец.

Той се зае с най-високата работа в комплициран миг за компанията, което разрешава на потребителите да приказват с разнообразни ай-генерирани персони. Nearch.ai се сблъсква с яростна конкуренция във все по -претъпкано пространство, както и правосъдни каузи от фамилии, които настояват, че услугата излага децата си на неуместно наличие и не съумяват да ползват съответни защитни ограничения.

Nearch.ai също е получил сложни въпроси по отношение на сигурността от законодателите, а една група за покровителство съобщи по -рано тази година, че приложенията на AI Companion не би трябвало да се употребяват от деца под 18 години. Дори и за възрастни консуматори, специалистите са повдигнали аларми за хората, образуващи евентуално нездравословни привързаности към героите на AI.

Ананд носи опит в някои от най-големите софтуерни компании в новата му роля, водеща на героя. Около 70 души екип. Той прекара 15 години в Microsoft и шест години в Meta, в това число като вицепрезидент и началник на бизнес продуктите в колоса на обществените медии. Той също е бил консултант на борда на характера.ai, преди да се причисли към изпълнителен шеф.

И той сподели на CNN, че вижда ярко бъдеще за платформата в Interactive AI Entertainment.

С други думи, а не хората, които употребяват „ изгниване на мозъка “ в обществените медии за развлечение, Ананд желае те да основават истории и диалози с темперамент.ai за развлечение.

„ AI може да зарежда доста, доста мощно персонално развлекателно преживяване за разлика от всичко, което сме виждали през последните 10 години в обществените медии, и несъмнено нищо сходно на това, което беше телевизионно “, споделя Ананд в изявление.

За разлика от многофункционалните AI принадлежности като Chatgpt, Nifure.ai предлага гама от разнообразни чатботи, които постоянно се моделират след известни персони и измислени герои. Потребителите също могат да основат свои лични за диалози или ролева игра. Друго разграничаване е, че характерите на характера дават отговор с човешки разговорни сигнали, добавяйки препратки към изражения на лицето или жестове в техните отговори.

Персоните на героите на AI в приложението варират доста, от сантиментални сътрудници до езикови преподаватели или герои на Дисни. Той също по този начин показва герои като „ Приятели гореща мама “, която се разказва като „ крива, бюст, блага, любяща, срамежлива, майчинска, чувствена “; и „ терапевт “, който назовава себе си „ лицензиран терапевт на ТББ “, макар че има отвод от отговорност, че не е същински човек или лицензиран експерт.

„ (Ние) удвояваме заниманието, удвоявайки доверието и сигурността “, сподели Ананд. „ И огромна част от работата, която желаеме да свършим, е да даде опция за напълно нова екосистема на основателя към AI Entertainment. “

Младежката сигурност на характера.ai

Характер.ai за първи път е съден от родител-майка във Флорида, която твърди, че 14-годишният й наследник е умрял от самоубийство, откакто е развил несъответствуващи връзки с чатботите в платформата-миналия октомври. Два месеца по-късно още две фамилии заведоха взаимен иск против компанията, обвинявайки го в даването на полово наличие на децата си и поощряване на самонараняването и насилието.

Оттогава компанията ползва редица нови ограничения за сигурност, в това число изскачащ прозорец, който насочва потребителите, които загатват самонараняване или самоубийство на националната избавителна спасителна линия. Той също по този начин актуализира своя AI модел за консуматори на възраст под 18 години, с цел да понижи вероятността те да срещнат сензитивно или внушително наличие и дава опция на родителите да получават седмичен имейл за интензивността на техния младеж в платформата.

Ананд сподели, че е убеден в характера на подобренията.ai е направил от предходната година, само че тази работа за опазване на платформата, изключително за младите консуматори, продължава. Политиките на характера.ai механически изискват потребителите да са над 13 -годишна възраст, макар че не желае информация, с цел да ревизира дали потребителите се записват с вярната дата на раждане.

„ Технологията и промишлеността и потребителската база непрестанно се развиват (така че), че в никакъв случай не можем да оставим защитата. Трябва непрекъснато да останем пред кривата “, сподели Ананд.

Той добави, че компанията продължава да тества по какъв начин хората могат да злоупотребяват с нови функционалности, с цел да предотвратят злоупотреби, като видео генератор, стартиран предишния месец, който разрешава на потребителите да анимират техните ботове. В дните след идването на инструмента потребителите споделиха несполучливи опити да тестват границите му, като основават подправени видеоклипове на видни фигури като Елон Мъск.

„ Трябваше да червеем екип продуктът за толкоз дълго време, с цел да сме сигурни, че не можете да употребявате това за всеки случай от отрицателна приложимост като Deepfakes или тормоз “, сподели Ананд.

Тези старания настрани, сподели Ананд във встъпителна записка към потребителите на знаци. Ай през предишния месец, че един от главните му цели е да направи филтъра за сигурност на платформата „ по -малко надмощен “, добавяйки, че „ прекомерно постоянно приложението филтрира неща, които са изцяло безобидни “.

Той сподели на CNN, че неща като споменаването на кръвта, когато потребителите вземат участие в „ Играта на ролята на вампири Fan Fiction “ - нещо, което той споделя, че е почитател - може да бъде цензуриран по сегашния модел, който той желае да актуализира, с цел да разбере по -добре подтекста, като в същото време балансира нуждата от сигурност.

Водещ в конкурентното AI пространство

Сред другите основни цели на Ананд: поощряване на повече основатели да се причислят към платформата, с цел да създадат нови герои на чатбот и да надграждат обществената емисия, където потребителите могат да споделят наличие, което са основали с темперамент.ai чатботи.

Последната функционалност е сходна на мета Meta, стартирана тази година, която разрешава на хората да споделят обществено своите подкани и AI генерирани творения. Meta Drew Heat, когато явно обърканите консуматори споделят диалози, които съдържат неуместни или персонални данни - увещание за провокациите за дискретност, които могат да дойдат с AI принадлежности.

Но общественият детайл може да помогне за по -нататъшно разграничение на характера.ai от по -големи съперници като Chatgpt, с които потребителите също от ден на ден образуват персонални връзки.

Източник: cnn.com